Tiền thân của Đảng bộ Đảng Cộng sản Việt Nam tỉnh Hải Dương là các chi bộ Việt Nam Cách mạng Thanh niên Đồng chí Hội. Từ những năm 1926, Hội Việt Nam Cách mạng Thanh niên đã truyền bá chủ nghĩa chủ nghĩa Mác-Lênin vào tỉnh, các chi bộ Hội được thành lập như chi bộ Thượng Cốc (Gia Lộc), chi bộ Đọ Xá (Chí Linh), chi bộ Mạo Khê (Đông Triều) và chi bộ thị xã Hải Dương.

Ngày 3/2/1930, Đảng Cộng sản Việt Nam được thành lập. Lần lượt các chi bộ Đảng được thành lập ngay sau khi Đảng ra đời, chi bộ Mạo Khê được thành lập đầu tiên rối tiếp đó là chi bộ Đọ Xá. Sau khi thành lập các chi bộ tích cực tuyên truyền, vận động quần chúng đấu tranh cách mạng.

Trong thời gian từ 1930-1940, Xứ ủy Bắc Kỳ chỉ đạo trực tiếp đường lối cách mạng tại tỉnh. Đầu năm 1940, trước tình hình thế giới biến đổi mau lẹ, Trung ương Đảng quyết định thành lập Liên tỉnh ủy B. Liên tỉnh ủy B phụ trách cách mạng các tỉnh Hải Dương, Hải Phòng, Kiến An, Quảng Yên, Hòn Gai, Hưng Yên. Trong năm 1940 phong trào cách mạng của tỉnh diễn ra sôi sục.

Giữa năm 1940, được sự chấp thuận của Xứ ủy Bắc Kỳ, Liên tỉnh ủy B đã tổ chức thành lập Ban Tỉnh uỷ lâm thời Hải Dương. Ban Tỉnh ủy lâm thời Hải Dương có nhiệm vụ thống nhất các chi bộ Đảng trong tỉnh đồng thời phát triển các cơ sở cách mạng trong quần chúng nhân dân.

Đầu năm 1941, sau khởi nghĩa Nam Kỳ, quân đội Pháp và Nhật Bản đàp áp phong trào cách mạng. Các tỉnh ủy viên đều bị bắt gần hết, tỉnh ủy giải thể. Đầu tháng 3/1945 Ban Cán sự Đảng tỉnh Hải Dương được thành lập, phong trào cách mạng trong tỉnh được khôi phục lại. Ngày 17/8/1945, cách mạng tháng 8 thành công tại tỉnh.

Sau khi giành được độc lập, tỉnh ủy cùng nhân dân địa phương chung sức khôi phục và phát triển mọi mặt tại tỉnh. Kháng chiến chống Pháp nổ ra, tỉnh ủy lại cùng nhân dân đấu tranh chống quân đội Pháp đến giải phóng 1954.

Ngày 26/1/1968, Ủy ban Thường vụ Quốc hội ra Quyết định số 504-NQ/TVQH về việc hợp nhất hai tỉnh Hưng Yên và Hải Dương thành tỉnh Hải Hưng. Đầu tháng 2/1968 Hội nghị Tỉnh ủy lâm thời Hải Hưng lần thứ nhất được tổ chức, Tỉnh ủy lâm thời Hải Hưng được thành lập gồm 46 ủy viên trong đó có 31 ủy viên Đảng bộ Hải Dương và 15 ủy viên Đảng bộ Hưng Yên.

Ngày 6/11/1996, tại kỳ họp thứ 10 Quốc hội khoá IX đã quyết định việc tái lập hai tỉnh Hải Dương và Hưng Yên trên sự chia tách từ tỉnh Hải Hưng. Đầu tháng 1/1997, sau khi được chia tách, Ban Bí thư Trung ương Đảng đã chỉ định Ban Chấp hành lâm thời tỉnh Hải Dương. Giữa tháng 11/1997 Đại hội Đại biểu Đảng bộ Hải Dương được tổ chức, Đại hội đã bầu ra Ban Chấp hành Đảng bộ tỉnh Hải Dương.